Dilahirkan di Mercedes, Buenos Aires, Videla bangkit sewaktu ketidakstabilan ekonomi dan politik di Argentina pada awal hingga pertengahan 1970-an. Pada 1973 Juan Perón telah kembali berkuasa di negara ini tetapi pada usia yang tua beliau tidak mampu memperbaiki keadaan negara ini. Setahun kemudian, beliau meninggal dunia dan jawatannya disandang oleh isterinya Isabel Perón, seorang bekas penari kelab malam yang tiada pengalaman di dalam politik. Dalam usahanya untuk mendapat sokongan tentera, Isabel telah melantik Videla sebagai Commander-in-Chief, jawatan tertinggi di dalam angkatan tentera Argentina. Tindakan ini seperti memakan diri sendiri kerana beliau melancarkan kudeta dan berjaya menjatuhkan kerajaan dinasti Perón pada 24 Mac, 1976, dan menjadi presiden de-facto sebagai ketua junta tentera dan berkongsi kuasa dengan Komander Jeneral Tentera Udara iaitu Orlando Ramón Agosti dan Komander Tentera Laut, Admiral Eduardo Emilio Massera. Beberapa hari selepas itu, pada 29 Mac 1976, Videla secara rasminya menjadi Presiden Argentina, suatu jawatan yang disandang hingga 29 Mac, 1981.